SEEK：工业搜索中技能路由与可演化知识的评估框架
🧭 LLM-as-a-Judge 搜索质量评估 ★ 深度解读
Peking University · Kuaishou Technology
提出 SEEK 框架，将搜索评估标准外部化为技能库，动态路由相关技能进行列表级评估与归因，并支持不重训模型的知识更新
📌 工作参考价值（4 点）
- 技能化评估标准：将多维度评估规则拆成独立技能（路由描述+操作指南），通过轻量路由器为每个样本选择相关子集，避免全量规则塞入 prompt 导致的上下文冗余和标准干扰。业务中可用于搜索/推荐结果的自动评测，尤其适合规则多且频繁更新的场景。
- 外部知识更新机制：评估标准变化时只需修订技能银行的指南，冻结模型参数，通过重放验证保证不损害历史性能。这实现了轻量级快速迭代，无需重新训练评估 LLM，适合业务规则频繁调整的电商/广告场景。
- 两阶段训练 + 层次化奖励：先用教师模型生成证据轨迹和路由标签，再 SFT + DAPO 强化学习，奖励包含最终判断、技能诊断质量、冲突惩罚，提升列表级判断与归因一致性。可借鉴用于训练内部 LLM-as-a-Judge，提高诊断可解释性。
- 生产可行性：LLM 评估在 24k 样本上达 0.842 准确率，比外包审核高 5.9 个点，耗时仅 0.9 小时（40 倍提速），说明可替代人工评估作为大规模质量监控和故障分析工具。
冻结 LLM 内部的技能路由器：用两个线性投影读出原生路由信号
🧭 Agent 技能路由 · LLM 原生信号读取 ★ 深度解读
Institute for Interdisciplinary Information Sciences, Tsinghua University
冻结 LLM 自身前向传播中已含技能路由信号，两个线性投影即可读出，无需外部模型或技能文本入上下文
📌 工作参考价值（4 点）
- 用 frozen LLM 自身中间层做相关性/召回评分，可避开独立 embedder/reranker 的 OOD 偏移；在电商 query 改写、商品/内容召回中，可训练两个轻量线性层从骨干 LLM 读 query 与 item 的匹配信号，尤其适合长上下文里埋没的需求。
- token-level late-interaction + top-k voting + recency decay 可迁移到个性化检索：不做全局池化，让关键 token 投票，对长会话轨迹用指数衰减增强最近消息权重。
- ε-cover 压缩 token bank 对海量 item/skill 索引有实用价值：farthest-first 覆盖去冗余，分数误差有界，可显著减小索引规模，新对象只需一次前向编码。
- 多信号 product of experts 融合（对比学习分数 + 生成似然 + yes/no 判别）可借鉴到排序融合，任一专家可一票否决，提升排序鲁棒性；再训练轻量门控决定何时触发路由，降低误触发。
超越 Top-k 技能检索：面向 LLM Agent 的多样性感知技能路由
🧭 LLM Agent 技能路由 · 多样性子集选择 ★ 深度解读
Virginia Tech · University of Southern California · Adobe Research · Dolby Labs · Texas A&M University
用 DPP 多样性选择与 query-residual 核，在技能路由中平衡相关性与非冗余，提升多技能任务覆盖
📌 工作参考价值（4 点）
- 在电商/广告 Agent 需要从大型技能/工具库中为复杂 query 选择多个互补技能时，不要只用 pointwise top-k；可加 DPP 选择步骤，用质量分 × 相似度核构造行列式点过程，平衡相关性与非冗余。
- 构造 DPP 相似度核时，先从技能 embedding 中减去 query 对齐分量（residual），避免惩罚因共享 query 相关性而相似的互补技能；对多技能任务尤其有效，可减少有用技能被误杀。
- 工程实现上，仅对检索到的 top-M 候选（如 50）做贪心 MAP，配合 incremental Cholesky 更新，开销小，适合线上 Agent 路由；候选集大小 M 和 residual 混合系数 λ 可调。
- 该方法对搜索/推荐中的多样性重排、多模型路由、多工具组合选择也有直接借鉴意义：在相关性分数基础上增加 query-conditioned 多样性约束，能提升列表对复杂意图的覆盖度。
面向智能推荐系统的个性化沟通技能框架
🧭 Agent 通信 · 个性化技能路由 ★ 深度解读
重庆大学 · 昆士兰大学
提出 why-what-how-who 技能库与个性化路由，让智能推荐代理通过外部用户互补证据纠正视角狭窄
📌 工作参考价值（4 点）
- 构建可复用的沟通技能库：借鉴 why-what-how-who 层次结构，在电商/广告推荐的 Agent 评估环节，预先定义决策缺陷（冷启动/选择冲突等）→ 信息需求 → 交互协议（单人/多人协作/竞争）→ 顾问选择（相似用户/信任用户），形成可查询的模板库，避免每次对话都从零设计 prompt。
- 动态路由替代固定通信流程：利用 LLM 根据当前用户状态、候选集与已有证据，依次从四个层次选择最合适的技能节点，而非采用单一对话策略；可用于推荐解释、争议推荐二次确认等场景。
- 失败驱动的自动进化：当 Agent 的最终选择出错时，诊断通信失败的原因并自动生成新的子技能或同级技能，实现技能库的自我扩展；可迁移到在线推荐策略迭代中，从 bad case 自动归纳新规则。
- 可控的通信成本与性能平衡：实验表明，多轮用户-顾问交互能持续提升 Hit@1（3 轮达最优），但顾问内部过多讨论反而有害；部署时可设置最大交互轮次，并在顾问间采用简洁的单轮协议，以较低 API 成本（<0.01$/用户）换取显著推荐增益。
组合技能路由：分解、检索、组合
🧭 Agent 技能路由 · 组合式检索 ★ 深度解读
Alibaba Cloud
提出 SKILLWEAVER 框架与技能感知分解 (SAD) 迭代反馈，将 LLM Agent 技能路由的分解准确率从 51.0% 提升至 67.7%
📌 工作参考价值（4 点）
- 多步骤任务编排：在电商 Agent 中，用户请求常需组合多个技能（如查库存→比价→下单）。SKILLWEAVER 的分解-检索-组合管道可直接用于将复杂意图拆解为原子子任务，再映射到真实 API 或工具，减少硬编码的意图路由。
- 检索增强的分解反馈：SAD 的核心是把检索到的技能信息作为 hint 反哺给分解步骤，属于“输入侧反馈”。这种方法可迁移到推荐系统的查询改写或意图分类中：用初步检索结果的分布矫正原始查询的粒度，解决语义漂移或过度分解问题。
- 上下文窗口优化：对于需要展示大量工具/物品描述的 Agent 场景，先用轻量 bi-encoder + FAISS 做粗检索再送入 LLM 做精排，可将上下文消耗降低 99%+，且检索结果稳定。在电商对话推荐中，可先用双塔模型召回候选商品，再用 LLM 做最终排序，既控制成本又保持了语义匹配能力。
- 技能库与组合泛化：SAD 在类别级和技能级留出实验中均有效，表明它学到的是技能库的结构性词汇而非特定映射。这启示在设计电商 Agent 工具库时，可以依赖技能的元数据与类别信息，通过 SAD 实现跨类别的任务分解泛化，无需为每种商品领域重训。